Создатель ChatGPT: История Сэма Альтмана - Кич Хэйги

задача, ты примерно понимаешь, какого элемента не хватает для ее решения, и ждешь, пока ты сам или кто-то другой не найдет этот недостающий элемент. Тогда ты просто берешь его, подставляешь в свою формулу – и вуаля, ты гений. Задача решена. В каком-то смысле трансформер и стал тем самым последним элементом нашей гениальной формулы. Мы в принципе знали, что это произойдет, вопрос был только в том, когда именно появится модель, способная соединить все те элементы, которые мы уже выстроили».

Рэдфорд начал экспериментировать с архитектурой трансформера. «За две недели я добился большего прогресса, чем за предыдущие два года», – признался он в интервью Wired[277]. Он быстро понял главное: чем крупнее модель, тем лучше она работает, а значит, им нужны максимально объемные наборы данных. Работая вместе с Суцкевером и еще двумя исследователями, Рэдфорд остановился на датасете под названием BookCorpus – коллекции из более 7000 художественных книг, преимущественно в жанре романтики, фэнтези и научной фантастики. Этот датасет впервые собрали в 2015 году исследователи из MIT и Университета Торонто, которые охарактеризовали его как «бесплатные книги ранее не публиковавшихся авторов» и разместили для скачивания на сайте Университета Торонто. Google и другие компании использовали этот набор данных для обучения искусственного интеллекта. В 2016 году газета The Guardian сообщила, что книги были без разрешения скопированы с платформы самиздата Smashwords, где авторы могут при желании сделать свои произведения бесплатными. При этом многие книги, попавшие в датасет, содержали уведомление об авторских правах с пометкой «Все права защищены». Некоторые авторы выразили протест, который поддержала Гильдия авторов – крупнейшая организация по защите прав писателей в США. Однако представитель Google утверждал, что такая практика представляет собой «добросовестное использование согласно американскому законодательству»[278]. Вопрос этот поднимался еще не раз.

Команда также использовала пары вопрос-ответ с сайта Quora, фрагменты экзаменов по английскому языку для китайских студентов и тесты по естественным наукам с выбором из нескольких вариантов ответов. В общей сложности модель насчитывала более 117 миллионов параметров, что стало для разработчиков серьезным вызовом. OpenAI пришлось перестроиться: вместо множества разрозненных исследовательских проектов компания сосредоточилась на единой цели – обучении моделей невиданного доселе масштаба. Исследователи и разработчики должны были стать равноправными партнерами, как и предполагали Брокман с Суцкевером.

«Программисты прекрасно справляются с нудными задачами, – отметил Суцкевер. – Ученые из академической среды не очень. Они любят красивые идеи, но не любят черновую работу. В OpenAI мы решили: “Мы – компания черновой работы”».

Закончив обучение модели, они обнаружили, что она не только превосходит существующие стандарты, отвечая на вопросы по тем данным, на которых обучалась, но и, судя по всему, способна отвечать на вопросы о том, чему ее не учили. Это явление получило название «zero-shot» – обучение без примеров. Несколько лет спустя Альтман охарактеризовал этот результат как «довольно впечатляющий, хотя у нас не было глубокого понимания того, как и почему это работает». Рэдфорд, Суцкевер и их команда назвали модель «генеративно предобученным трансформером», или сокращенно GPT[279].

Это открытие указало компании новое направление развития. Подход с обучением агентов оказался тупиковым, потому что начинал с чистого листа, объяснял Карпати. Чтобы научить агента необходимым навыкам, требовались колоссальные объемы машинного обучения.

«Правильный путь – забыть все это и обучать языковые модели, – пояснил он. – Языковые модели – это не агенты. Они просто пытаются предсказать следующее слово. Но поскольку они делают это на материале всего интернета, нейросеть вынужденно узнает огромное количество информации о мире».

Если вы хотите научить искусственный интеллект покупать для вас авиабилет, логичнее начать с большой языковой модели вроде GPT, которая уже знает, что такое «кнопки» и «текстовые поля», потому что читала о них, а не потому, что методом тыка заполнила форму и получила за это вознаграждение. Оказалось, что с точки зрения вычислений проще сначала обучить некий обобщенный «мозг», а затем использовать его для обучения агента конкретным задачам через процесс тонкой настройки, который требует гораздо меньше вычислительных ресурсов. Так удается избежать долгого и затратного метода проб и ошибок.

«Мы пытались скопировать подход DeepMind, но это был неверный путь, который завел в тупик, – вспоминал Карпатый несколько лет спустя. – А потом Алек здесь, в OpenAI, начал обучать первые GPT. И теперь уже DeepMind копирует то, что делаем мы».

После первой победы в Dota 2 Маск ликовал. Но этот опыт преподал важный урок: вычислительные мощности имеют решающее значение. OpenAI требовалось гораздо больше денег. Суцкевер, Брокман, Маск и Альтман обсуждали возможность провести ICO (первичное размещение криптовалютных токенов), но Маск в итоге выступил против, опасаясь, что это подорвет их репутацию. Они планировали привлечь для своей некоммерческой организации более 100 миллионов долларов, но, начав встречаться с потенциальными донорами, быстро осознали нереалистичность этой затеи. Один из видных инвесторов Кремниевой долины во время переговоров сказал напрямую: такая сумма слишком огромна для любой некоммерческой организации.

«Именно это и подтолкнуло нас к переменам – мы поняли, что пришло время вырасти и пересмотреть наш взгляд на миссию», – рассказывал Брокман журналистам The Wall Street Journal. В июле, когда бот для Dota 2 был уже настолько хорош, что до победы над человеком в формате один на один оставался всего месяц, Суцкевер отправил Маску отчет о прогрессе OpenAI, упомянув, что компания вскоре приступит к «разработке коммерческой структуры»[280].

Обдумывая переход к коммерческой модели, соучредители вели долгие переговоры с Маском о том, кто должен возглавить компанию. Маск хотел получить полный контроль – контрольный пакет акций, руководство советом директоров и должность генерального директора. Но Суцкевер и Брокман опасались, что он не сможет уделять компании достаточно времени. Право выбрать руководителя в итоге осталось за Брокманом и Суцкевером как за наиболее опытными соучредителями, работавшими в компании на постоянной основе. Изначально они выбрали Маска, но затем Альтман позвонил Брокману и переубедил его, утверждая, что с Маском будет сложно работать. После этого Брокман уговорил Суцкевера изменить решение и поддержать Альтмана.

«С самого основания OpenAI я пытался уговорить его стать генеральным директором, – рассказывал Брокман The Wall Street Journal в 2023 году. – В компании много лет зияла дыра размером как раз под Сэма, и мы намеренно ее не заделывали»[281]. В сентябре Брокман и Суцкевер отправили Маску и Альтману электронное письмо, описывающее их затруднительное положение.

«Наше желание работать с вами настолько велико, что мы готовы отказаться от доли в капитале, от личного контроля, сделать так, чтобы нас можно было легко уволить [sic], – мы готовы на все, лишь бы работать с вами», – писали Брокман и Суцкевер Маску. Однако, продолжали они, их беспокоило, что «текущая структура предоставляет вам